Chuột đồng đuôi dài.

Các mẫu hóa thạch của các động vật có vú tương tự như động vật gặm nhấm đã xuất hiện rất nhanh sau khi khủng long bị tuyệt chủng, khoảng 65 triệu năm trước (Ma), vào khoảng thế Paleocen. Tuy nhiên, một số dữ liệu đồng hồ phân tử lại cho rằng các động vật gặm nhấm hiện đại (các thành viên của bộ Rodentia) đã xuất hiện vào cuối kỷ Phấn Trắng, mặc dù các ước tính phân nhánh phân tử khác lại phù hợp với các mẫu hóa thạch.[8][9] Vào cuối thế Eocen, các họ hàng của hải ly, chuột sóc, sóc và các nhóm khác đã xuất hiện trong các mẫu hóa thạch. Chúng khởi đầu từ Laurasia, một lục địa trước đây là sự nối liền của Bắc Mỹ, châu Âu, châu Á. Một vài loài đã xâm chiếm châu Phi, tạo ra sự xuất hiện của những loài nhím lông (Hystricognathi) sớm nhất. Tuy nhiên, một số nhỏ các nhà khoa học tin rằng chứng cứ từ ADN ti thể chỉ ra rằng Hystricognathi có thể thuộc về nhánh tiến hóa khác và vì thế thuộc về bộ khác. Từ đây nhóm Hystricognathi xâm chiếm Nam Mỹ, một lục địa cô lập trong thế Oligocen và thế Miocen. Vào thời gian của thế Miocen, châu Phi va chạm với châu Á, cho phép các động vật gặm nhấm như nhím lông phổ biến sang lục địa Á-Âu.[10]

Trong thế Pliocen, các mẫu hóa thạch đã xuất hiện tại Úc. Mặc dù thú có túi (Marsupialia) là nhóm thú nổi bật tại Australia, nhưng động vật gặm nhấm chiếm tới gần 25% lớp Thú của châu lục này. Nhiều loài găm nhấm thuộc phân họ Murinae nằm trong số những loài thú của lục địa này, với khoảng 50 loài 'đặc hữu cũ' và to loài chuột (Rattus) trong số đó 8 loài là 'đặc hữu mới' và 2 loài được du nhập từ châu Âu.[11] Trong thời gian đó, Nam Mỹ và Bắc Mỹ nối liền và một số động vật gặm nhấm chiếm lĩnh các lãnh thổ mới;[12] các loài chuột tràn xuống phía nam[13] còn các loài nhím lông thì di chuyển lên phía bắc.[14]

Một số động vật gặm nhấm tiền sửCastoroides, hải ly khổng lồ, nặng trên 100 kg (220 lb), sống trong Pleistocene[15]Ceratogaulus, động vật gặm nhấm có sừng và đào hang, Miocene muộn đến Pleistocene[16]Spelaeomys, chuột có kích thước lớn trên đảo Flores, tuyệt chủng năm 1500[17]Heptaxodontidae, một nhóm động vật gặm nhấm đã từng sinh tồn ở Tây Ấn, nặng hơn 200 kg (440 lb), trong Pleistocene[18]Ischyromys, động vật gặm nhấm tương tự như sóc nguyên thủyLeithia, chuột sóc khổng lồ, nặng 113 kg (249 lb), trong Pleistocene[19]Neochoerus pinckneyi, lợn nước khổng lồ ở Bắc Mỹ, cân nặng tới 100 kg (220 lb), trong Pleistocene[20]Josephoartigasia monesi, động vật gặm nhấm to lớn nhất đã biết, nặng 1.500 kg (3.300 lb) sống trong Pliocene đến Pleistocene sớm.[21]Phoberomys pattersoni, động vật gặm nhấm to lớn thứ hai đã biết, dưới 280 kg (620 lb);[22] ước tính trước đây đến 700 kg (1.500 lb)[23], sống trong Miocene[22]Telicomys, động vật gặm nhấm to lớn ở Nam Mỹ, kích thước khoảng 70% của P. pattersoni[22], sống vào Miocene muộn đến Pleistocene sớm[22]